SEER:面向时序预测的自进化事件推理与检索
🧭 自进化 Agent · 事件检索增强时序预测 ★ 深度解读
Google Cloud AI Research · University of Virginia
用预测误差驱动检索记忆与因果知识库更新,显著提升事件驱动时序预测的准确性与可解释性
📌 工作参考价值(4 点)
- 在电商需求预测/广告转化预估中,把动态外部事件(价格调整、大促、供应链、热搜)作为可更新的文本上下文,而不是静态特征;用 retrieval memory 生成搜索 query 扩展候选,再用 selection memory 做噪声过滤,两个组件解耦,避免信息过载。
- 闭环反思机制可用于推荐/搜索的在线学习:将预测残差(销量/CTR 偏差)和推荐理由对比,更新「检索记忆」与「因果规则库」,离线回放、线上冻结,避免直接更新模型参数;尤其适合已有 LLM 推荐理由或文案生成场景。
- 严格时间边界与 fact-check 约束对推荐系统外部特征同样关键,确保只用截至请求时刻的商品新闻/库存/价格,防止特征穿越导致线上翻车。
- 蒸馏 IF-THEN 因果规则不仅提升可解释性,还能让 Agent 主动拒答/过滤高噪声样本(如选择性股票预报、选品),提升精度;电商中可迁移到「是否推荐、推什么品类」的不确定性决策。
PRICE:比特币价格预测中 LLM 适配选择的系统研究
🧭 LLM 时间序列预测 · 适配策略
Isfahan University of Technology
系统验证 LoRA、递归推理、整数表示、CTF 提示与零温度解码如何提升 LLM 比特币价格预测精度与稳健性
📌 工作参考价值(4 点)
- 低资源数值预测可直接复用:4-bit 量化 LLM + LoRA 在有限硬件上可重训,适合电商销量/GMV/出价等频繁更新的数值预测,不必上大参数全量微调。
- 连续值取整是一种简单有效的表示 trick:用整数代表价格、销量、金额等,可降低回归误差和 token 空间,业务上可先做分箱/取整再训练。
- 多步预测用递归推理而非一次性输出,配合 temperature=0 解码,能显著提升多步预测稳定性和误差;广告消耗、库存曲线预测可借鉴。
- CTF 提示固定 Context/Task/Format 结构优于 CoT/few-shot,且微调后仍有效;在构建 LLM 预测/排序任务 prompt 时优先设计统一结构,而不是依赖复杂推理提示。
元harness优化多智能体实现轻量时序预测器小样本训练
🧭 多智能体元优化 · 时间序列预测
University of Houston · NEC Labs · University of Waterloo · University of Connecticut · University of Illinois at Urbana-Champaign
用多智能体生成数据+元优化harness,从少量样本训练轻量时间序列预测器
📌 工作参考价值(4 点)
- 数据稀缺或隐私敏感场景(如新商品冷启动、低频事件预测),可借鉴多智能体数据生成:用 LLM agent 从少量真实样本+文本上下文合成训练数据,再训练轻量模型,避免直接依赖大模型在线推理。
- 将 LLM 定位为“离线工程师”而非在线预测器:在电商推荐中,可让 LLM 离线生成商品描述增强、用户兴趣特征或合成样本,训练轻量排序/CTR模型,保证线上低延迟和低成本。
- 多智能体分工(数据生成、过滤、评估)提升合成数据质量,该模式可迁移到推荐系统的数据增强 pipeline,通过多个 agent 协作筛选高质量样本。
- meta-harness 优化思想:把数据生成流程(prompt/工具调用)视为可学习对象,用元学习在多个任务上优化,使生成数据能最大程度提升下游模型效果,可类比推荐中的自动特征工程或数据增强策略搜索。
对齐即一切:时间序列基础模型的免训练检索增强预测
🧭 检索增强预测 · 免训练时序对齐
Stanford University · Amazon
提出免训练的时序对齐方法Align-RAG,证明冻结模型自身即可动态利用检索上下文,无需训练适配器
📌 工作参考价值(4 点)
- 在电商销量/广告点击预测中,可直接使用“幅度缩放+相位平移”的对齐方法,将检索到的相似时间序列与当前序列对齐后输入冻结预测模型,无需训练任何适配器,降低工程复杂度。
- 用户行为序列预测(如下次购买时间、点击路径)可借鉴此思路:对检索到的历史行为窗口进行均值和方差归一化,并基于互相关计算最佳滞后,再作为冻结基座模型的上下文,有望提升零样本泛化能力。
- 对推荐系统的RAG设计启示:冻结大模型本身已具备动态利用检索上下文的能力,应优先采用无参数的输入对齐基线,避免过早引入可学习的融合模块,减少训练成本和过拟合风险。
- 工程实现简单高效:对齐仅需计算均值和方差(幅度缩放)及整数滞后(相位对齐),易于集成至现有检索增强推理流水线,可作为时序预测任务的默认基线。
自门控注意力:高效时间序列预测
🧭 高效注意力机制 · 时序预测
提出即插即用的自门控注意力,以线性复杂度维持预测性能,避免冗余注意力计算。
📌 工作参考价值(4 点)
- 在推荐系统的用户行为序列建模中,可直接替换标准自注意力,省略 query/key 投影,显著降低长序列的计算和内存开销,适合高并发在线推理。
- 共享注意力矩阵 + 轻量残差的设计,可应对行为序列中常见的重复模式(如周期性、固定套路),对电商场景的点击序列预测有直接迁移价值。
- 即插即用特性允许快速集成到现有 Transformer 推荐模型(如 SASRec、BERT4Rec)中,仅需微小改动即可获得推理加速。
- 在边缘设备或资源受限推理环境下,SGA 能保持竞争力性能,适合部署在移动端推荐、实时出价等延迟敏感系统。
用 LLM Agent 打通时间序列预测的最后一公里
🧭 LLM Agent · 预测修正与业务落地 ★ 深度解读
Trip.com Group
提出以 LLM agent 对统计基线预测进行可溯、约束化的业务修正,将上下文信息转化为结构化修订动作。
📌 工作参考价值(4 点)
- 预测修正的工程化模式:将统计基线预测与业务修正解耦,把修正动作封装为可审计的操作(范围缩放、点位覆写),可直接用于电商需求计划、促销备货等场景,把运营经验结构化地注入到预测中。
- Agent 工作区设计:共享的表格式工作区(历史值、基线预测、可编辑修订值)保证历史与基线不可变,所有修订仅作用于 y_final,避免模型幻觉污染原始信号,这种“受控编辑”的思路可复用于推荐系统中的打分后调整或多策略融合。
- 长时预测的 map-reduce 分解:将长预测区间拆分为事件窗口并行推理,再通过统一动作接口合并,适合电商大促期的多活动多时段调优,提升推理效率且保持可审查性。
- 基于记忆的自我改进闭环:在真实值出现后生成校准反思,存为结构化记忆,后续预测时优先检索历史修正错误,避免重复犯错,该机制可直接用于推荐系统的 A/B 后评估与在线参数的自适应调整。
Nexus:多智能体时间序列预测框架
🧭 Agent ★ 深度解读
Google · Pennsylvania State University
通过宏微观双分辨率预测与动态校准,Nexus 多智能体框架在零样本预测中超越专业时序模型,并输出可解释推理。